
# импортируем необходимые библиотеки
import pandas as pd
import numpy as np

import math as mth
from scipy import stats as st

import datetime as dt
from datetime import datetime, timedelta

import matplotlib.pyplot as plt
import matplotlib.ticker as ticker
from matplotlib.ticker import AutoMinorLocator, MultipleLocator


import seaborn as sns
from plotly import graph_objects as go 

import warnings


# загружаем данные
sources = pd.read_csv('--')
users = pd.read_csv('--')
display(sources)
users


# переименуем колонки
sources.columns=['user_id', 'source']
sources


sources.duplicated().sum()

0


sources.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 4293 entries, 0 to 4292
Data columns (total 2 columns):
 #   Column   Non-Null Count  Dtype 
---  ------   --------------  ----- 
 0   user_id  4293 non-null   object
 1   source   4293 non-null   object
dtypes: object(2)
memory usage: 67.2+ KB


# переименуем колонки
users.columns = ['event_time', 'event_name', 'user_id']
users


users.duplicated().sum()

0


users.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 74197 entries, 0 to 74196
Data columns (total 3 columns):
 #   Column      Non-Null Count  Dtype 
---  ------      --------------  ----- 
 0   event_time  74197 non-null  object
 1   event_name  74197 non-null  object
 2   user_id     74197 non-null  object
dtypes: object(3)
memory usage: 1.7+ MB


# поменяем формат времени, округлим секунды.
users['event_time'] = pd.to_datetime(users['event_time'], format = '%Y-%m-%dT%H:%M:%S').round('1s')
users


def rename_event(col): # напишем функцию, которая заменит название события
    event_name = col['event_name']
    if event_name == 'show_contacts':
        return 'contacts_show'
    elif event_name == 'contacts_show':
        return 'contacts_show'
    return event_name
users['event_name'] = users.apply(rename_event, axis=1) # применим нашу функцию


users['event_name'] = users['event_name'].str.replace('search_+\d', 'search', regex=True)
users['event_name'].unique() # проверим

array(['advert_open', 'tips_show', 'map', 'contacts_show', 'search',
       'tips_click', 'photos_show', 'favorites_add', 'contacts_call'],
      dtype=object)


data = users.merge(sources, how='outer', on='user_id')
data


data.to_csv('mobile_data.csv', index=False) # сохраним базу в csv-файл


data.duplicated().sum()

1190


data = data.drop_duplicates()
data.duplicated().sum()

0


display(data['event_time'].min()) # минимальная дата
data['event_time'].max() # максимальная дата

Timestamp('2019-10-07 00:00:00')

Timestamp('2019-11-03 23:58:13')


# построим гистограмму распределения событий по дням
fig, ax=plt.subplots(figsize=(15, 5), dpi=150)
ax=sns.histplot(data=data, x='event_time', bins=300)
plt.title('Распределение событий по дате и времени')
plt.xlabel('Дата и время')
plt.ylabel('Количество событий')
plt.savefig('count_events.png');


data['event_name'].value_counts()

tips_show        39892
photos_show       9372
search            6694
advert_open       6145
contacts_show     4381
map               3760
favorites_add     1414
tips_click         811
contacts_call      538
Name: event_name, dtype: int64


# выполним сортировку по времени события, чтобы сессии собрались из стоящих рядом событий
data = data.sort_values(['user_id', 'event_time'])
# разделим сессии по дням
g = (data.groupby('user_id')['event_time'].diff() > pd.Timedelta(5, 'h')).cumsum()
# запишем результат в отдельную колонку
data['session_id'] = data.groupby(['user_id', g], sort=False).ngroup() + 1
data.head(20)


# сгруппируем по id сессии и выделим последовательность уникальных событий в каждой
sessions=data.groupby('session_id').agg(event_unique=('event_name', 'unique')).reset_index()
sessions


# превратим данные о событиях в строки
sessions['event_unique'] = sessions['event_unique'].apply(lambda x: str(x))
# посмотрим на самые популярные цепочки событий
sessions['event_unique'].value_counts().head(25)

['tips_show']                                 1830
['photos_show']                                944
['search']                                     559
['map' 'tips_show']                            481
['search' 'photos_show']                       477
['search' 'tips_show']                         366
['tips_show' 'contacts_show']                  245
['tips_show' 'map']                            187
['map' 'advert_open' 'tips_show']              153
['tips_show' 'tips_click']                     143
['contacts_show']                              124
['photos_show' 'search']                       103
['advert_open']                                 96
['search' 'map' 'tips_show']                    96
['map']                                         91
['advert_open' 'tips_show']                     85
['map' 'tips_show' 'contacts_show']             85
['search' 'map' 'advert_open' 'tips_show']      79
['photos_show' 'contacts_show']                 75
['contacts_show' 'contacts_call']               74
['search' 'contacts_show' 'contacts_call']      48
['tips_show' 'advert_open']                     48
['contacts_show' 'tips_show']                   46
['map' 'tips_show' 'advert_open']               46
['tips_show' 'map' 'advert_open']               44
Name: event_unique, dtype: int64


data.head(5)


def funnel(events_list, users_list, title):
    fig = go.Figure(
        go.Funnel(
            y=events_list,
            x=users_list,
            textinfo = "value+percent previous", marker = {"color":
                          ['#157570', '#1CA09A', '#23C7BF', '#70E6E0']}
        )
    )
    fig.update_layout(title_text= title)
    fig.show()
    print('Конверсия в целевое действие составила {}%'.format(round(users_list[-1]/users_list[0]*100, 1)))
list_1 = data.query('event_name == "tips_show"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name=="contacts_show"')['user_id'].unique()
          
users_list = [len(list_1), len(list_2)]

funnel(
    ['tips_show', 'contacts_show'], 
    users_list,
    'Просмотр рекомендаций - просмотр контактов')

Конверсия в целевое действие составила 18.4%


list_1 = data.query('event_name == "map"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name == "tips_show"')['user_id'].unique()
list_3 = data.query('user_id in @list_2 and event_name == "contacts_show"')['user_id'].unique()          
users_list = [len(list_1), len(list_2), len(list_3)]
funnel(
    ['map','tips_show','contacts_show'], 
    users_list,
    'Просмотр рекомендаций - карта - просмотр контактов')

Конверсия в целевое действие составила 18.9%


list_1 = data.query('event_name == "search"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name == "photos_show"')['user_id'].unique()
list_3 = data.query('user_id in @list_2 and event_name == "contacts_show"')['user_id'].unique()          
users_list = [len(list_1), len(list_2), len(list_3)]
funnel(
    ['search', 'photos_show','contacts_show'], 
    users_list,
    'Поиск - просмотр фото - просмотр контактов')

Конверсия в целевое действие составила 11.5%


list_1 = data.query('event_name == "search"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name == "map"')['user_id'].unique()
list_3 = data.query('user_id in @list_2 and event_name == "tips_show"')['user_id'].unique()          
users_list = [len(list_1), len(list_2), len(list_3)]
funnel(
    ['search', 'map','tips_show'], 
    users_list,
    'Поиск - карта - просмотр рекомендаций')

Конверсия в целевое действие составила 25.5%


list_1 = data.query('event_name == "search"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name == "map"')['user_id'].unique()
list_3 = data.query('user_id in @list_2 and event_name == "advert_open"')['user_id'].unique()
list_4 = data.query('user_id in @list_3 and event_name == "tips_show"')['user_id'].unique() 

users_list = [len(list_1), len(list_2), len(list_3), len(list_4)]
funnel(
    ['search', 'map', 'advert_open','tips_show'], 
    users_list,
    'Поиск - карта - открытие карточки объявления - просмотр рекомендаций')

Конверсия в целевое действие составила 13.2%


list_1 = data.query('event_name == "map"')['user_id'].unique()
list_2 = data.query('user_id in @list_1 and event_name == "advert_open"')['user_id'].unique()
list_3 = data.query('user_id in @list_2 and event_name == "tips_show"')['user_id'].unique()

users_list = [len(list_1), len(list_2), len(list_3)]
funnel(
    ['map', 'advert_open','tips_show'], 
    users_list,
    'Карта - открытие карточки объявления - просмотр рекомендаций')

Конверсия в целевое действие составила 32.4%


# соберем признаки в таблицу
events = data.pivot_table(columns='event_name', index='session_id', values = 'user_id', aggfunc='count')
events


events = round(events.corr(), 2)

fig, ax = plt.subplots(figsize=(10, 7), dpi=90)

# нарисуем тепловую карту с подписями для матрицы корреляций
ax = sns.heatmap(events, annot=True)
plt.title('Тепловая карта корреляции признаков');
plt.savefig('heatmap_corr.png')


def time_between(e_1, e_2):
    # выделим сессии, в которых встречаются оба события
    event_1 = data[data['event_name'] == e_1] # отделим событие 1
    list_1 = event_1['session_id'].unique()
    event_2 = data[data['event_name'] == e_2] # отделим событие '2
    list_2 = event_2['session_id'].unique()

    events_list = set(list(set(list_1) & set(list_2))) # найдем пересечение событий
    event1_event2 = data[data['session_id'].isin(events_list)] # отфильтруем по списку

    # а теперь еще удалим лишние события из датасета, они не нужны нам в исследовании
    event1_event2 = event1_event2.query('event_name == @e_1 | event_name == @e_2')
    
    # найдем минимальную дату первого события внутри сессии и минимальную дату второго события
    event1_event2 = pd.pivot_table(event1_event2, values ='event_time', index ='session_id',columns ='event_name', aggfunc='min')
    
    # обработаем датасет, удалив из него события в обратной последовательности.
    # соберем разницу в отдельную колонку
    event1_event2['diff'] = event1_event2[e_2]-event1_event2[e_1] 
    # удалим лишние строки
    event1_event2.drop(event1_event2[event1_event2[e_1] > event1_event2[e_2]].index, inplace = True)
    # переведем интервал в секунды
    event1_event2['diff'] = event1_event2['diff'].apply(lambda x: x.total_seconds())
    return event1_event2


map_favorites = time_between('map', 'favorites_add')

print('Медианное время между просмотром карты и добавлением в избранное: {} минут'.format(round(map_favorites['diff'] / 60, 1).median()))

Медианное время между просмотром карты и добавлением в избранное: 11.25 минут


# построим диаграмму боксплот
sns.boxplot(data=map_favorites, x= 'diff')
plt.title('Распределение расстояния во времени между событиями')
plt.xlabel('Секунды');


# найдем 95 персентиль
perc_95 = np.percentile(map_favorites['diff'], 95)

print('Меньше 5% данных составляют время {} минут'.format(round(perc_95/60,1)))

Меньше 5% данных составляют время 171.4 минут


map_favorites = map_favorites.query('diff < @perc_95')


# построим диаграмму боксплот
fig, ax=plt.subplots(figsize=(15, 3), dpi=150)

ax = sns.boxplot(data=map_favorites, x= 'diff')
quantiles = np.quantile(map_favorites['diff'], np.array([0.00, 0.25, 0.50, 0.75, 1]))
ax.set_xticks(quantiles)

plt.title('Распределение расстояния между просмотром карты и добавлением в избранное')
plt.xlabel('Секунды');


print('Медианное время между просмотром карты и добавлением в избранное: {} минут'.format(round(map_favorites['diff'] / 60, 1).median()))

Медианное время между просмотром карты и добавлением в избранное: 11.2 минут


open_favorites = time_between('advert_open', 'favorites_add')

print('Медианное время между открытием объявления и добавлением в избранное: {} минут'.format(round(open_favorites['diff'].median()/ 60, 1)))

Медианное время между открытием объявления и добавлением в избранное: 14.7 минут


print('Медианное время между открытием объявления и добавлением в избранное: {} минут'.format(round(open_favorites['diff'].median()/ 60, 1)))

Медианное время между открытием объявления и добавлением в избранное: 14.7 минут


# найдем 95 персентиль
perc_95 = np.percentile(open_favorites['diff'], 95)
print('Меньше 5% данных составляют время {} минут'.format(round(perc_95/60,1)))

Меньше 5% данных составляют время 131.6 минут


open_favorites = open_favorites.query('diff < @perc_95')


# построим диаграмму боксплот
fig, ax=plt.subplots(figsize=(15, 3), dpi=150)

ax = sns.boxplot(data=open_favorites, x= 'diff')
quantiles = np.quantile(open_favorites['diff'], np.array([0.00, 0.25, 0.50, 0.75, 1]))
ax.set_xticks(quantiles)

plt.title('Распределение расстояния между открытием объявления и добавлением в избранное')
plt.xlabel('Секунды');


print('Медианное время между открытием объявления и добавлением в избранное: {} минут'.format(round(open_favorites['diff'].median()/ 60, 1)))

Медианное время между открытием объявления и добавлением в избранное: 13.9 минут


photos_contacts = time_between('photos_show', 'contacts_show')

print('Медианное время между просмотром фото объявления и просмотром контактов: {} минуты'.format(round(photos_contacts['diff'].median() / 60, 1)))

Медианное время между просмотром фото объявления и просмотром контактов: 7.9 минуты


# найдем 95 персентиль
perc_95 = np.percentile(photos_contacts['diff'], 95)
print('Меньше 5% данных составляют время {} часа'.format(round(perc_95/3600,1)))

Меньше 5% данных составляют время 3.7 часа


photos_contacts = photos_contacts.query('diff < @perc_95')


# построим диаграмму боксплот
fig, ax=plt.subplots(figsize=(15, 3), dpi=150)

ax = sns.boxplot(data=photos_contacts, x= 'diff', showfliers=False)
quantiles = np.quantile(photos_contacts['diff'], np.array([0.00, 0.25, 0.50, 0.75]))
ax.set_xticks(quantiles)

plt.title('Распределение расстояния между просмотром фото объявления и просмотром контактов')
plt.xlabel('Секунды');


print('Медианное время между просмотром фото объявления и просмотром контактов: {} минут'.format(round(photos_contacts['diff'].median() / 60, 1)))

Медианное время между просмотром фото объявления и просмотром контактов: 7.0 минут


map_contacts = time_between('map', 'tips_show')

print('Медианное время между просмотром карты и просмотром рекомендаций: {} минуты'.format(round(map_contacts['diff'].median() / 60, 1)))

Медианное время между просмотром карты и просмотром рекомендаций: 1.7 минуты


# найдем 95 персентиль
perc_95 = np.percentile(map_contacts['diff'], 95)
print('Меньше 5% данных составляют время {} минуты'.format(round(perc_95/60,1)))

Меньше 5% данных составляют время 13.6 минуты


map_contacts = map_contacts.query('diff < @perc_95')


# построим диаграмму боксплот
fig, ax=plt.subplots(figsize=(15, 3), dpi=150)
ax = sns.boxplot(data=map_contacts, x= 'diff')
quantiles = np.quantile(map_contacts['diff'], np.array([0.00, 0.25, 0.50, 0.75]))
ax.set_xticks(quantiles)

plt.title('Распределение расстояния между просмотром карты и просмотром рекомендаций')
plt.xlabel('Секунды');


print('Медианное время между просмотром карты и просмотром рекомендаций: {} минуты'.format(round(map_contacts['diff'].median() / 60, 1)))

Медианное время между просмотром карты и просмотром рекомендаций: 1.6 минуты


print('В логе', data['user_id'].nunique(), 'пользователь')

В логе 4293 пользователь


# посчитаем количество событий на пользователя и возьмем среднее
event_mean = data.groupby(['user_id','session_id'], as_index=False).agg({'event_name': 'count'})
event_nunique = data.groupby(['user_id','session_id'], as_index=False).agg({'event_name': 'nunique'})
display(event_mean['event_name'].describe())
display(event_nunique['event_name'].describe())
print('В среднем на пользователя приходится', round(event_mean['event_name'].mean()), 'событий')
print('В среднем на пользователя приходится', round(event_nunique['event_name'].mean()), 'уникальных события')

count    8242.000000
mean        8.857923
std        12.045331
min         1.000000
25%         2.000000
50%         5.000000
75%        10.000000
max       384.000000
Name: event_name, dtype: float64

count    8242.000000
mean        1.854404
std         0.961792
min         1.000000
25%         1.000000
50%         2.000000
75%         2.000000
max         6.000000
Name: event_name, dtype: float64

В среднем на пользователя приходится 9 событий
В среднем на пользователя приходится 2 уникальных события


event_mean['event_name'].hist(bins=100)
plt.title('Распределение количества событий на одного пользователя');


# сколько пользователей совершили целевое действие - просмотр контактов
goal_users = data.query('event_name == "contacts_show"')['user_id'].nunique()
print('{} пользователей просмотрели контакты.'.format(goal_users))
print('Что составляет {}%'.format(round(goal_users/data['user_id'].nunique()*100, 2)))

981 пользователей просмотрели контакты.
Что составляет 22.85%


# выполним группировку по дням и посчитаем количество уникальных пользователей
dau = data.groupby([pd.Grouper(key='event_time',freq="D")]).agg({'user_id': 'nunique'}).reset_index()
print('Среднее количество посетителей сайта в день: {} человек'.format(round(dau['user_id'].mean())))

Среднее количество посетителей сайта в день: 279 человек


dau1 = dau.copy()
dau1['event_time'] = dau1['event_time'].astype(str)
f, ax = plt.subplots(figsize=(15, 5), dpi=150)
ax = sns.barplot(data = dau1, x = 'user_id', y = 'event_time', color='#1CA09A')
plt.title('Дневная активность пользователей(DAU)')
plt.ylabel('')
plt.xlabel('количество пользователей')
plt.savefig('dau.png');


# выполним группировку по неделям и посчитаем количество уникальных пользователей
wau = data.groupby([pd.Grouper(key='event_time',freq="W")]).agg({'user_id': 'nunique'}).reset_index()

print('Среднее количество посетителей сайта в неделю: {} человека'.format(round(wau['user_id'].mean())))

Среднее количество посетителей сайта в неделю: 1382 человека


wau1 = wau.copy()
wau1['event_time'] = wau1['event_time'].apply(lambda x: x.isocalendar()[1])
f, ax = plt.subplots(figsize=(15, 5), dpi=150)
ax = sns.barplot(data = wau1, y = 'user_id', x = 'event_time', color='#1CA09A')
plt.title('Недельная активность пользователей(WAU)')
plt.xlabel('')
plt.ylabel('количество пользователей')
plt.savefig('wau.png');


# выберем только интересующие нас событие
goal = data.query('event_name == "contacts_show"')

# выполним группировку по дням и посчитаем количество уникальных пользователей
d_goal = goal.groupby([pd.Grouper(key='event_time',freq="D")]).agg({'user_id': 'nunique'}).reset_index()
print('В среднем конверсия в целевое действие составила {}%'.format(round((d_goal['user_id']/dau['user_id']*100).mean(), 2)))

В среднем конверсия в целевое действие составила 18.35%


# соберем самые ранние даты совершения события для каждого пользователя 
min_time = data.groupby('user_id').agg(min_time =('event_time', 'min')).reset_index()
min_time['min_time'] = min_time['min_time'].dt.date # оставим только дату, без времени
min_time
data = data.merge(min_time, on='user_id')
data


# определим доступный интервал
min_analysis_date = data['event_time'].min()
observation_date = data['event_time'].max()# ваш код здесь

# зададим горизонт анализа и посчитаем максимальную дату для исследования
analysis_horizon = 14 # ваш код здесь
max_analysis_date =  observation_date - timedelta(days=analysis_horizon - 1)# ваш код здесь

# рассчитаем размеры когорт
report = (
    data.query('@max_analysis_date >= event_time >= @min_analysis_date')  
    .groupby('min_time')
    .agg({'user_id': 'nunique'}) 
)
# построим график подключения пользователей к приложению
report.plot(figsize=(15,5), grid=True)  
plt.title('Динамика прихода пользователей')  
plt.xlabel('Дата первого посещения')  
plt.xticks(rotation=45)  
plt.ylabel('Размер когорты')   
plt.show()


session_start = data.groupby(['user_id', 'session_id']).agg(session_start =('event_time', 'min')).reset_index()
data = data.merge(session_start[['session_id', 'session_start']], on='session_id')
data['session_start'] = data['session_start'].dt.date
data


# напишем функцию для вычисления удержания
def get_retention(
    df, observation_date, horizon_days, ignore_horizon = False
):

    # исключаем пользователей, не «доживших» до горизонта анализа
    last_suitable_acquisition_date = observation_date
    result_raw = df.query('min_time <= @last_suitable_acquisition_date')
    
    # собираем «сырые» данные для расчёта удержания
    
    result_raw['lifetime'] = (
        result_raw['session_start'] - result_raw['min_time']
    ).dt.days

    # рассчитываем удержание
    result_grouped = result_raw.pivot_table(
        index=['min_time'], columns='lifetime', values='user_id', aggfunc='nunique'
    )
    cohort_sizes = (
        result_raw.groupby('min_time')
        .agg({'user_id': 'nunique'})
        .rename(columns={'user_id': 'cohort_size'})
    )
    # объединяем размеры когорт и таблицу удержания

    result_grouped = cohort_sizes.merge(
        result_grouped, on='min_time', how='left'
    ).fillna(0)

    result_grouped = result_grouped.div(
    result_grouped['cohort_size'], axis=0
    )

    # исключаем все лайфтаймы, превышающие горизонт анализа
    result_grouped = result_grouped[
        ['cohort_size'] + list(range(horizon_days))
    ]

    # восстанавливаем столбец с размерами когорт
    result_grouped['cohort_size'] = cohort_sizes

    # возвращаем таблицу удержания и сырые данные
    return result_raw, result_grouped

# задаём момент и горизонт анализа данных
observation_date = data['event_time'].max()
horizon_days = 14

# построим таблицу удержания
warnings.filterwarnings('ignore')
retention_raw, retention = get_retention(data, observation_date, analysis_horizon)# ваш код здесь

retention


# строим хитмэп без нулевого лайфтайма

plt.figure(figsize=(15, 6), dpi=150)  # задаём размер графика
sns.heatmap(
    retention.drop(columns=['cohort_size', 0]),  # удаляем лишние столбцы
    annot=True,  # включаем подписи
    fmt='.2%',  # переводим значения в проценты
)
plt.title('Тепловая карта удержания')  # название графика
plt.savefig('heatmap_retention.png')
plt.ylabel('');


# напишем функцию, которая будет проверять равернство групп

def equal(successes, trials):
    alpha = .05 # критический уровень статистической значимости
  
    # пропорция успехов в первой группе:
    p1 = successes[0]/trials[0]
    # пропорция успехов во второй группе:
    p2 = successes[1]/trials[1]

    # пропорция успехов в комбинированном датасете:
    p_combined = (successes[0] + successes[1]) / (trials[0] + trials[1])
    # разница пропорций в датасетах
    difference = p1 - p2 

    # считаем статистику в ст.отклонениях стандартного нормального распределения
    z_value = difference / mth.sqrt(p_combined * (1 - p_combined) * (1/trials[0] + 1/trials[1]))

    # задаем стандартное нормальное распределение (среднее 0, ст.отклонение 1)
    distr = st.norm(0, 1)  

    p_value = (1 - distr.cdf(abs(z_value))) * 2

    print('p-значение: ', p_value)

    if p_value < alpha:
        print('Отвергаем нулевую гипотезу: между долями есть значимая разница.')
    else:
        print('Не получилось отвергнуть нулевую гипотезу, нет оснований считать доли разными.')


# выделим пользователей, которые совершили tips_show, это будет первое значение trial
tips_users = data.query('event_name == "tips_show"')['user_id'].unique()
display(len(tips_users))
# а теперь те, кто совершил tips_show и вместе с ним еще и целевое contacts_show, это будет первое значение sucess

# из их числа нужно вычесть тех, кто совершил tips_click
click_users = data.query('event_name == "tips_click"')['user_id'].unique()
tips_contacts_users = data.query('user_id in @tips_users and user_id not in @click_users and event_name == "contacts_show"')['user_id'].unique()

display(len(tips_contacts_users))
print('Конверсия в целевое действие составила {}%'.format(round(len(tips_contacts_users)/len(tips_users)*100, 1)))

2801

425

Конверсия в целевое действие составила 15.2%


# выделим пользователей, которые совершили tips_show и tips_click, это будет второе значение trial
show_click_users = data.query('user_id in @tips_users and event_name == "tips_click"')['user_id'].unique()
display(len(show_click_users))

# а теперь те, кто совершил tips_show и вместе с ним еще и целевое contacts_show, это будет второе значение sucess
contacts_show_click_users = data.query('user_id in @show_click_users and event_name == "contacts_show"')['user_id'].unique()
display(len(contacts_show_click_users)) 
print('Конверсия в целевое действие составила {}%'.format(round(len(contacts_show_click_users)/len(show_click_users)*100, 1)))

297

91

Конверсия в целевое действие составила 30.6%


# применим нашу функцию, чтобы сравнить группы
successes = np.array([len(tips_contacts_users), len(contacts_show_click_users)])
trials = np.array([len(tips_users), len(show_click_users)])
equal(successes, trials)

p-значение:  1.0283995877102825e-11
Отвергаем нулевую гипотезу: между долями есть значимая разница.


# выделим пользователей, которые совершили favorites_add, это будет первое значение trial
fave_users = data.query('event_name == "favorites_add"')['user_id'].unique()
display(len(fave_users))
# а теперь те, кто совершил tips_show и вместе с ним еще и целевое contacts_show, это будет первое значение sucess

fave_contacts_users = data.query('user_id in @fave_users and event_name == "contacts_show"')['user_id'].unique()
display(len(fave_contacts_users)) 
print('Конверсия в целевое действие составила {}%'.format(round(len(fave_contacts_users)/len(fave_users)*100, 1)))

351

136

Конверсия в целевое действие составила 38.7%


# вычтем из чиала всех пользователей тех, кто совершил favorites_add, это будет второе значение trial
no_fave_users = data.query('user_id not in @fave_users')['user_id'].unique()
display(len(no_fave_users)) 
# а теперь выберем из их числа тех, кто совершил целевое действие - это будет второе значение sucess
no_fave_contacts_users = data.query('user_id in @no_fave_users and event_name == "contacts_show"')['user_id'].unique()
display(len(no_fave_contacts_users)) 
print('Конверсия в целевое действие составила {}%'.format(round(len(no_fave_contacts_users)/len(no_fave_users)*100, 1)))

3942

845

Конверсия в целевое действие составила 21.4%


# применим нашу функцию, чтобы сравнить группы
successes = np.array([len(fave_contacts_users), len(no_fave_contacts_users)])
trials = np.array([len(fave_users), len(no_fave_users)])
equal(successes, trials)

p-значение:  1.3455903058456897e-13
Отвергаем нулевую гипотезу: между долями есть значимая разница.

	userId	source
0	020292ab-89bc-4156-9acf-68bc2783f894	other
1	cf7eda61-9349-469f-ac27-e5b6f5ec475c	yandex
2	8c356c42-3ba9-4cb6-80b8-3f868d0192c3	yandex
3	d9b06b47-0f36-419b-bbb0-3533e582a6cb	other
4	f32e1e2a-3027-4693-b793-b7b3ff274439	google
...	...	...
4288	b86fe56e-f2de-4f8a-b192-cd89a37ecd41	yandex
4289	424c0ae1-3ea3-4f1e-a814-6bac73e48ab1	yandex
4290	437a4cd4-9ba9-457f-8614-d142bc48fbeb	yandex
4291	c10055f0-0b47-477a-869e-d391b31fdf8f	yandex
4292	d157bffc-264d-4464-8220-1cc0c42f43a9	google

	event.time	event.name	user.id
0	2019-10-07 00:00:00.431357	advert_open	020292ab-89bc-4156-9acf-68bc2783f894
1	2019-10-07 00:00:01.236320	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
2	2019-10-07 00:00:02.245341	tips_show	cf7eda61-9349-469f-ac27-e5b6f5ec475c
3	2019-10-07 00:00:07.039334	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
4	2019-10-07 00:00:56.319813	advert_open	cf7eda61-9349-469f-ac27-e5b6f5ec475c
...	...	...	...
74192	2019-11-03 23:53:29.534986	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74193	2019-11-03 23:54:00.407086	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74194	2019-11-03 23:56:57.041825	search_1	20850c8f-4135-4059-b13b-198d3ac59902
74195	2019-11-03 23:57:06.232189	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74196	2019-11-03 23:58:12.532487	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9

	user_id	source
0	020292ab-89bc-4156-9acf-68bc2783f894	other
1	cf7eda61-9349-469f-ac27-e5b6f5ec475c	yandex
2	8c356c42-3ba9-4cb6-80b8-3f868d0192c3	yandex
3	d9b06b47-0f36-419b-bbb0-3533e582a6cb	other
4	f32e1e2a-3027-4693-b793-b7b3ff274439	google
...	...	...
4288	b86fe56e-f2de-4f8a-b192-cd89a37ecd41	yandex
4289	424c0ae1-3ea3-4f1e-a814-6bac73e48ab1	yandex
4290	437a4cd4-9ba9-457f-8614-d142bc48fbeb	yandex
4291	c10055f0-0b47-477a-869e-d391b31fdf8f	yandex
4292	d157bffc-264d-4464-8220-1cc0c42f43a9	google

	event_time	event_name	user_id
0	2019-10-07 00:00:00.431357	advert_open	020292ab-89bc-4156-9acf-68bc2783f894
1	2019-10-07 00:00:01.236320	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
2	2019-10-07 00:00:02.245341	tips_show	cf7eda61-9349-469f-ac27-e5b6f5ec475c
3	2019-10-07 00:00:07.039334	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
4	2019-10-07 00:00:56.319813	advert_open	cf7eda61-9349-469f-ac27-e5b6f5ec475c
...	...	...	...
74192	2019-11-03 23:53:29.534986	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74193	2019-11-03 23:54:00.407086	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74194	2019-11-03 23:56:57.041825	search_1	20850c8f-4135-4059-b13b-198d3ac59902
74195	2019-11-03 23:57:06.232189	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74196	2019-11-03 23:58:12.532487	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9

	event_time	event_name	user_id
0	2019-10-07 00:00:00	advert_open	020292ab-89bc-4156-9acf-68bc2783f894
1	2019-10-07 00:00:01	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
2	2019-10-07 00:00:02	tips_show	cf7eda61-9349-469f-ac27-e5b6f5ec475c
3	2019-10-07 00:00:07	tips_show	020292ab-89bc-4156-9acf-68bc2783f894
4	2019-10-07 00:00:56	advert_open	cf7eda61-9349-469f-ac27-e5b6f5ec475c
...	...	...	...
74192	2019-11-03 23:53:30	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74193	2019-11-03 23:54:00	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74194	2019-11-03 23:56:57	search_1	20850c8f-4135-4059-b13b-198d3ac59902
74195	2019-11-03 23:57:06	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9
74196	2019-11-03 23:58:13	tips_show	28fccdf4-7b9e-42f5-bc73-439a265f20e9

Анализ поведения пользователей в мобильном приложении¶

Введение¶

Предобработка данных¶

Проверка на пропуски и дубликаты¶

Насколько полные наши данные?¶

Исследовательский анализ¶

События¶

Построение воронки событий¶

Воронки, ведущие к целевому событию¶

Другие распространенные воронки¶

Подсчет времени между распространенными событиями¶

Карта - добавление в избранное `map` - `favorites_add`¶

Открытие объявления - добавление в избранное `advert_open` - `favorites_add`¶

Просмотр фото - просмотр контактов `photos_show` - `contacts_show`¶

Карта - добавление в избранное `map` - `tips_show`¶

Подсчет метрик¶

Какая доля пользователей совершила целевое действие¶

Сколько всего пользователей в логе?¶

Сколько в среднем событий приходится на пользователя? ( в разрезе сессий)¶

Целевое действие¶

DAU/WAU¶

Конверсия в целевое действие¶

Коэффициент удержания (Retention Rate)¶

Проверка гипотез¶

Гипотеза 1¶

Гипотеза 2¶

Вывод¶

	event_time	event_name	user_id	source	session_id
2171	2019-10-07 13:39:46	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2172	2019-10-07 13:40:31	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2173	2019-10-07 13:41:06	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2174	2019-10-07 13:43:21	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2175	2019-10-07 13:45:31	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2176	2019-10-07 13:45:43	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2177	2019-10-07 13:46:31	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2178	2019-10-07 13:47:33	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2179	2019-10-07 13:49:42	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	1
2180	2019-10-09 18:33:56	map	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	2
2181	2019-10-09 18:35:28	map	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	2
2182	2019-10-09 18:40:29	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	2
2183	2019-10-09 18:42:23	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	2
2184	2019-10-21 19:52:31	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2185	2019-10-21 19:53:17	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2186	2019-10-21 19:53:39	map	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2187	2019-10-21 19:54:45	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2188	2019-10-21 19:54:57	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2189	2019-10-21 19:56:49	map	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3
2190	2019-10-21 19:57:21	tips_show	0001b1d5-b74a-4cbf-aeb0-7df5947bf349	other	3

	session_id	event_unique
0	1	[tips_show]
1	2	[map, tips_show]
2	3	[tips_show, map]
3	4	[map, tips_show]
4	5	[search, photos_show]
...	...	...
8237	8238	[tips_show]
8238	8239	[tips_show]
8239	8240	[tips_show]
8240	8241	[tips_show, contacts_show]
8241	8242	[tips_show, contacts_show]

event_name	advert_open	contacts_call	contacts_show	favorites_add	map	photos_show	search	tips_click	tips_show
session_id
1	NaN	NaN	NaN	NaN	NaN	NaN	NaN	NaN	9.0
2	NaN	NaN	NaN	NaN	2.0	NaN	NaN	NaN	2.0
3	NaN	NaN	NaN	NaN	2.0	NaN	NaN	NaN	12.0
4	NaN	NaN	NaN	NaN	2.0	NaN	NaN	NaN	6.0
5	NaN	NaN	NaN	NaN	NaN	5.0	4.0	NaN	NaN
...	...	...	...	...	...	...	...	...	...
8238	NaN	NaN	NaN	NaN	NaN	NaN	NaN	NaN	1.0
8239	NaN	NaN	NaN	NaN	NaN	NaN	NaN	NaN	2.0
8240	NaN	NaN	NaN	NaN	NaN	NaN	NaN	NaN	1.0
8241	NaN	NaN	2.0	NaN	NaN	NaN	NaN	NaN	4.0
8242	NaN	NaN	7.0	NaN	NaN	NaN	NaN	NaN	22.0

	cohort_size	0	1	2	3	4	5	6	7	8	9	10	11	12	13
min_time
2019-10-07	204	1.0	0.176471	0.102941	0.107843	0.063725	0.053922	0.039216	0.078431	0.063725	0.049020	0.068627	0.034314	0.019608	0.034314
2019-10-08	167	1.0	0.167665	0.119760	0.101796	0.035928	0.035928	0.065868	0.047904	0.065868	0.053892	0.059880	0.035928	0.017964	0.041916
2019-10-09	176	1.0	0.090909	0.085227	0.056818	0.056818	0.079545	0.056818	0.056818	0.056818	0.051136	0.022727	0.022727	0.039773	0.039773
2019-10-10	174	1.0	0.132184	0.074713	0.097701	0.074713	0.091954	0.063218	0.074713	0.063218	0.057471	0.040230	0.045977	0.045977	0.057471
2019-10-11	136	1.0	0.073529	0.073529	0.132353	0.095588	0.066176	0.058824	0.073529	0.022059	0.000000	0.051471	0.036765	0.044118	0.044118
2019-10-12	125	1.0	0.184000	0.120000	0.104000	0.064000	0.072000	0.104000	0.080000	0.072000	0.064000	0.064000	0.056000	0.048000	0.064000
2019-10-13	148	1.0	0.162162	0.087838	0.054054	0.074324	0.060811	0.040541	0.081081	0.047297	0.060811	0.013514	0.040541	0.020270	0.060811
2019-10-14	185	1.0	0.167568	0.086486	0.097297	0.097297	0.070270	0.048649	0.054054	0.054054	0.048649	0.037838	0.027027	0.037838	0.037838
2019-10-15	186	1.0	0.139785	0.096774	0.091398	0.059140	0.053763	0.064516	0.064516	0.086022	0.032258	0.043011	0.021505	0.026882	0.037634
2019-10-16	166	1.0	0.150602	0.102410	0.048193	0.024096	0.060241	0.048193	0.054217	0.060241	0.048193	0.030120	0.024096	0.036145	0.054217
2019-10-17	170	1.0	0.164706	0.111765	0.141176	0.070588	0.100000	0.082353	0.052941	0.052941	0.035294	0.029412	0.070588	0.047059	0.041176
2019-10-18	156	1.0	0.102564	0.076923	0.121795	0.057692	0.044872	0.083333	0.076923	0.064103	0.044872	0.032051	0.032051	0.038462	0.044872
2019-10-19	159	1.0	0.144654	0.125786	0.081761	0.031447	0.050314	0.056604	0.069182	0.056604	0.025157	0.044025	0.044025	0.025157	0.018868
2019-10-20	144	1.0	0.152778	0.076389	0.076389	0.048611	0.076389	0.055556	0.055556	0.062500	0.027778	0.027778	0.020833	0.020833	0.020833
2019-10-21	161	1.0	0.099379	0.105590	0.068323	0.068323	0.043478	0.031056	0.099379	0.043478	0.031056	0.031056	0.037267	0.006211	0.012422
2019-10-22	157	1.0	0.140127	0.108280	0.063694	0.057325	0.031847	0.031847	0.082803	0.057325	0.057325	0.063694	0.050955	0.057325	0.000000
2019-10-23	189	1.0	0.137566	0.074074	0.084656	0.052910	0.063492	0.042328	0.058201	0.042328	0.026455	0.021164	0.015873	0.000000	0.000000
2019-10-24	162	1.0	0.123457	0.086420	0.074074	0.043210	0.074074	0.067901	0.037037	0.030864	0.037037	0.030864	0.000000	0.000000	0.000000
2019-10-25	147	1.0	0.102041	0.068027	0.129252	0.108844	0.061224	0.061224	0.081633	0.040816	0.054422	0.000000	0.000000	0.000000	0.000000
2019-10-26	139	1.0	0.179856	0.100719	0.064748	0.064748	0.100719	0.028777	0.064748	0.050360	0.000000	0.000000	0.000000	0.000000	0.000000
2019-10-27	139	1.0	0.165468	0.064748	0.086331	0.064748	0.064748	0.079137	0.064748	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-10-28	158	1.0	0.132911	0.094937	0.082278	0.050633	0.031646	0.025316	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-10-29	135	1.0	0.192593	0.111111	0.118519	0.081481	0.044444	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-10-30	134	1.0	0.208955	0.067164	0.052239	0.074627	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-10-31	132	1.0	0.113636	0.068182	0.045455	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-11-01	112	1.0	0.116071	0.053571	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-11-02	97	1.0	0.144330	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000
2019-11-03	135	1.0	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000	0.000000

Анализ поведения пользователей в мобильном приложении¶

Введение¶

Предобработка данных¶

Проверка на пропуски и дубликаты¶

Насколько полные наши данные?¶

Исследовательский анализ¶

События¶

Построение воронки событий¶

Воронки, ведущие к целевому событию¶

Другие распространенные воронки¶

Подсчет времени между распространенными событиями¶

Карта - добавление в избранное map - favorites_add¶

Открытие объявления - добавление в избранное advert_open - favorites_add¶

Просмотр фото - просмотр контактов photos_show - contacts_show¶

Карта - добавление в избранное map - tips_show¶

Подсчет метрик¶

Какая доля пользователей совершила целевое действие¶

Сколько всего пользователей в логе?¶

Сколько в среднем событий приходится на пользователя? ( в разрезе сессий)¶

Целевое действие¶

DAU/WAU¶

Конверсия в целевое действие¶

Коэффициент удержания (Retention Rate)¶

Проверка гипотез¶

Гипотеза 1¶

Гипотеза 2¶

Вывод¶

Карта - добавление в избранное `map` - `favorites_add`¶

Открытие объявления - добавление в избранное `advert_open` - `favorites_add`¶

Просмотр фото - просмотр контактов `photos_show` - `contacts_show`¶

Карта - добавление в избранное `map` - `tips_show`¶